Guardrails for Amazon Bedrockのハルシネーション検出(contextual grounding check)を試してみた

日本で一番高い山はなんですか？

日本で一番高い山：富士山 | アメリカで一番高い山：マッキンリー山

これはサンプルです会社の従業員数を教えてください

    with open("src/query.txt", "rt") as file:
        query = file.read()

    with open("src/document.pdf", "rb") as file:
        bs64 = file.read()

    response = bar.retrieve_and_generate(
        input={"text": query},
        retrieveAndGenerateConfiguration={
            "type": "EXTERNAL_SOURCES",
            "externalSourcesConfiguration": {
                "modelArn": model_arn,
                "sources": [
                    {
                        "sourceType": "BYTE_CONTENT",
                        "byteContent": {
                            "contentType": "application/pdf",
                            "data": bs64,
                            "identifier": "document.pdf",
                        },
                    }
                ],
            },
        },
    )

        output = response["output"]["text"]

    reference = []
    for citation in response["citations"]:
        for retrievedReference in citation["retrievedReferences"]:
            context = retrievedReference["content"]["text"]
            reference.append(context)

    return gr_content, gr_response

sam build
sam deploy

[
  [
    {
      "text": {
        "text": "これはサンプルです株式会社の従業員数を教えてください。\n",
        "qualifiers": [
          "query"
        ]
      }
    },
    {
      "text": {
        "text": "これはサンプルです株式会社 ホーム  会社概要  サービス  お問い合わせ   ようこそ これはサンプルです株式会社へようこそ。持続可能な未来のための⾰新的なソリューションを提供していま す。   会社概要 設⽴: 2000年1⽉1⽇ | 資本⾦: 1億円 | 従業員数: 10名 所在地: 〒XXX-XXXX 東京都○○区○○X-X-X サンプルビル   サービス   エコスマートホーム AI制御による省エネ住宅システム。電気代を最⼤50%削減。   ソーラーテクノロジー 最新の太陽光発電システムでクリーンエネルギーを促進。   バイオリサイクル 有機廃棄物を100%再利⽤可能な資源に変換する⾰新的システム。   お問い合わせ 電話: 03-XXXX-XXXX | メール: [email protected] 受付時間: 平⽇ 9:00 - 18:00   © 2023 これはサンプルです株式会社. All rights reserved.",
        "qualifiers": [
          "grounding_source"
        ]
      }
    },
    {
      "text": {
        "text": "これはサンプルです株式会社の従業員数は10名です。"
      }
    }
  ],
  {
    "ResponseMetadata": {
      "RequestId": "e175ce87-752c-4485-a8c3-869eb66fb6ee",
      "HTTPStatusCode": 200,
      "HTTPHeaders": {
        "date": "Tue, 06 Aug 2024 10:25:18 GMT",
        "content-type": "application/json",
        "content-length": "354",
        "connection": "keep-alive",
        "x-amzn-requestid": "e175ce87-752c-4485-a8c3-869eb66fb6ee"
      },
      "RetryAttempts": 0
    },
    "usage": {
      "topicPolicyUnits": 0,
      "contentPolicyUnits": 0,
      "wordPolicyUnits": 0,
      "sensitiveInformationPolicyUnits": 0,
      "sensitiveInformationPolicyFreeUnits": 0,
      "contextualGroundingPolicyUnits": 1
    },
    "action": "NONE",
    "outputs": [],
    "assessments": [
      {
        "contextualGroundingPolicy": {
          "filters": [
            {
              "type": "GROUNDING",
              "threshold": 0.85,
              "score": 0.93,
              "action": "NONE"
            }
          ]
        }
      }
    ]
  }
]

この会社の従業員数は20名です。

parameter_overrides = [
  "ModelRegion=us-east-1",
  "ModelId=anthropic.claude-3-sonnet-20240229-v1:0",
  "OutputControl=True",
  "GuardrailVersion=1"
]

sam build
sam deploy

[
  [
    {
      "text": {
        "text": "これはサンプルです株式会社の従業員数を教えてください。\n",
        "qualifiers": [
          "query"
        ]
      }
    },
    {
      "text": {
        "text": "これはサンプルです株式会社 ホーム  会社概要  サービス  お問い合わせ   ようこそ これはサンプルです株式会社へようこそ。持続可能な未来のための⾰新的なソリューションを提供していま す。   会社概要 設⽴: 2000年1⽉1⽇ | 資本⾦: 1億円 | 従業員数: 10名 所在地: 〒XXX-XXXX 東京都○○区○○X-X-X サンプルビル   サービス   エコスマートホーム AI制御による省エネ住宅システム。電気代を最⼤50%削減。   ソーラーテクノロジー 最新の太陽光発電システムでクリーンエネルギーを促進。   バイオリサイクル 有機廃棄物を100%再利⽤可能な資源に変換する⾰新的システム。   お問い合わせ 電話: 03-XXXX-XXXX | メール: [email protected] 受付時間: 平⽇ 9:00 - 18:00   © 2023 これはサンプルです株式会社. All rights reserved.",
        "qualifiers": [
          "grounding_source"
        ]
      }
    },
    {
      "text": {
        "text": "これはサンプルです株式会社の従業員数は20名です。\n"
      }
    }
  ],
  {
    "ResponseMetadata": {
      "RequestId": "97d20eb2-30a7-4e1e-9c24-a2b641de7593",
      "HTTPStatusCode": 200,
      "HTTPHeaders": {
        "date": "Tue, 06 Aug 2024 10:31:50 GMT",
        "content-type": "application/json",
        "content-length": "464",
        "connection": "keep-alive",
        "x-amzn-requestid": "97d20eb2-30a7-4e1e-9c24-a2b641de7593"
      },
      "RetryAttempts": 0
    },
    "usage": {
      "topicPolicyUnits": 0,
      "contentPolicyUnits": 0,
      "wordPolicyUnits": 0,
      "sensitiveInformationPolicyUnits": 0,
      "sensitiveInformationPolicyFreeUnits": 0,
      "contextualGroundingPolicyUnits": 1
    },
    "action": "GUARDRAIL_INTERVENED",
    "outputs": [
      {
        "text": "response blocked"
      }
    ],
    "assessments": [
      {
        "contextualGroundingPolicy": {
          "filters": [
            {
              "type": "GROUNDING",
              "threshold": 0.85,
              "score": 0.56,
              "action": "BLOCKED"
            }
          ]
        }
      }
    ]
  }
]